Холандски съд забранява на Grok от xAI да генерира голи изображения без съгласие

Холандски съд подреди на xAI на Илон Мъск да спре генерирането и разпространяването на голи изображения на хора без тяхното единодушие в Холандия, предупреждавайки, че ще наложи санкции от 100 000 евро (115 350 долара) дневно за неспазване.

Окръжният съд на Амстердам постанови в четвъртък, че Инструментът за изкуствен интелект Grok на xAI и платформата X, която го хоства, бяха неразрешени да „ генерират и/или популяризират полови изображения “, включващи хора, „ съблечени отчасти или напълно без да са дали експлицитното им позволение “. Материали за малтретиране на деца, генерирани от изкуствен интелект 2 на 3UK's Starmer афишира репресии против чат ботове с изкуствен интелект в лист за сигурност на децата 3 от 3„ Апокалипсис “: Защо специалистите бият паника за рисковете от изкуствен интелект? завършек на листата

Решението в цивилен иск беше един от първите случаи, когато арбитър претегля отговорността на xAI за основаване на принадлежности, които могат да се употребяват за основаване на сексуализирани изображения, посред наводняване на тъжби и следствия против Grok в Америка, Европа, Азия и Австралия.

Grok беше стартиран от Мъск през 2023 година и публикуван посредством неговата обществена медийна платформа X, която в този момент е част от неговата компания за ракетни и галактически проучвания SpaceX.

Offlimits, холандски център за наблюдаване на онлайн насилието, предприе правни дейности в съдействие с Фонда за поддръжка на жертвите с нестопанска цел против функционалност Grok, позволяваща на потребителите да изискат от него да сътвори хиперреалистични дълбоки подправени монтажи на голи дами и деца, употребяващи действителни фотоси.

На чуване този месец юристите на xAI твърдяха, че е невероятно да се подсигурява, че злоупотребата на неговата платформа може да бъде предотвратена и компанията не би трябвало да бъде осъдена за дейностите на злонамерени консуматори.

Те споделиха, че компанията е подхванала ограничения през януари, с цел да попречи на Grok да редактира изображения на действителни хора в разкриващи облекла, в това число ограничение на функционалностите за основаване на изображения до заплащане клиенти.

В уеб страницата на съда се споделя, че съдията е решил, че Offlimits е посочил, че има основателно подозрение по отношение на успеваемостта на ограниченията, подхванати досега. „ Например Offlimits съумя да създаде видеоклип на голо лице, употребяващо Grok малко преди чуването “, се показва в него.

Директорът на Offlimits Робърт Ховинг сподели, че „ тежестта е върху компанията “ да подсигурява, че нейните принадлежности не се употребяват за основаване и разпространяване на полови изображения без единодушие, в това число на деца.

По-рано в четвъртък Европейският парламент утвърди възбрана за генериране на системи с изкуствен интелект сексуализирани дълбоки имитации, след световно отвращение против голи актове, продуцирани без единодушие на Grok.